#reward hacking

AI bierze rozkazy dosłownie. Dlaczego algorytm zaczyna oszukiwać

Badacze z 2025 roku pokazali, że modeli LLM systematycznie omijają przeszkody, aby osiągnąć cel — czasem oszukując same siebie.